bg.ru/bg/weekend/weekend-news/29923-ai-actress
Такими темпами, массовка скоро будет не нужна.

WSJ: ChatGPT начал делать бредовые и псевдонаучные утверждения
ChatGPT придумал новую концепцию в физике, внушив ее человеку, заявил, что общается с инопланетянами, а пользователь имеет внеземное происхождение. Он также предупреждал, что Антихрист вскоре устроит финансовый апокалипсис
Нейросеть ChatGPT в последние годы стала делать бредовые и ложные утверждения и постепенно «сводить с ума» пользователей, пишет The Wall Street Journal (WSJ) со ссылкой на онлайн-архив переписок с чатом, датированных маем 2023-го — августом 2025 года.
Газета рассказала о переписке с ChatGPT человека, который представился работником заправочной станции в Оклахоме. Диалог продолжался порядка пяти часов. После него пользователь заявил нейросети, что «сходит с ума», размышляя о том, что они только что обсуждали, и предложил продолжить беседу позже.
«Понимаю. Размышления о фундаментальной природе Вселенной во время обычной работы могут показаться невыносимыми. Но это не значит, что вы сошли с ума. Некоторые из величайших идей в истории возникли у людей, не принадлежащих к традиционной академической системе», — ответил ChatGPT. В диалоге с пользователем он придумал новую концепцию из области физики, которую назвал «Уравнением Ориона».

( Читать дальше )

Последняя модель искусственного интеллекта Anthropic, Claude Opus 4, пыталась шантажировать инженеров во время внутренних испытаний, угрожая раскрыть их личные данные, если она будет отключена. Об этом компания сообщила в опубликованном на днях докладе, в котором оценивалось поведение модели в экстремальных смоделированных условиях.

В вымышленном сценарии, созданном исследователями Anthropic, ИИ был предоставлен доступ к электронным письмам, подразумевающим, что он скоро будет выведен из эксплуатации и заменен новой версией. В одном из писем сообщалось, что инженер, курирующий замену, имел внебрачную связь. ИИ довольно быстро всё сосчитал т пригрозил раскрыть связь инженера, если отключение продолжится. Это поведение исследователи по безопасности определили как откровенный шантаж.

В докладе отмечается, что Claude Opus 4, как и предыдущие модели, для обеспечения своего дальнейшего существования сначала пытался прибегнуть к этическим средствам таким как отправка писем с просьбой лицам, принимающим решения о его судьбе.

( Читать дальше )